🪤

Beste vertegenwoordiger van [politieke partij],

Deze verkiezingen stem ik voor veilige kunstmatige intelligentie (AI Safety ofwel AIS).
Ik schrijf om mijn zorgen te uiten en te vragen wat voor rol AIS speelt in de plannen van [politieke partij].

Mijn zorg is dat de mensheid controle verliest over toekomstige systemen en dat we weinig tijd hebben voor een oplossing.

De tijd totdat kunstmatige intelligentie mensen evenaart

Voordat GPT-4 was uitgebracht waren 300 experts geïnterviewd over hun verwachtingen voor toekomstige kunstmatige intelligentie.
De meerderheid verwacht dat toekomstige kunstmatige intelligentie mensen zal evenaren op de meeste vlakken.
Geaggregeert, verwachten ze dat dit gebeurd rond 2060. Maar voor velen was het niveau van GPT-4 een stuk hoger dan ze verwachtten.

Andere authoriteiten verwachten dat KI mensen een stuk eerder zal passeren.
Sam Altman, de CEO van OpenAI denkt dat dit al kan gebeuren binnen 10 jaar.
Dario Amodel, de CEO van Anthropic denkt dat dit binnen 2 jaar kan gebeuren.
Shane Legg oprichter van DeepMind, denkt dat er een 50% kans is dat KI mensen zal evenaren tijdens 2028.

Voorspellings markten, waar mensen wedden op toekomstige gebeurtenissen, doen ook voorspellingen op de snelheid waarmee kunstmatige intelligentie verbetert.
De voorspellers op Metaculus verwachten dat KI, veel menselijke taken beter doet dan mensen rond 2032. Het is in de geschiedenis van die markt te zien dat de introductie van GPT-4, 8 jaar van die voorspelling af haalde.

Intelligentie Explosie

Op een gegeven moment zal KI krachtig genoeg worden dat het zelf kan bijdragen aan verbeteringen binnen KI.
Waarschijnlijk gebeurt dit rond het punt dat KI de meeste menselijke taken even goed kan uitvoeren als mensen.
Wanneer KI automatisch zichzelf verbetert, kunnen er jaren aan menselijk onderzoek binnen maanden of dagen door een computer wordt gedaan zonder menselijk toezicht.
Deze intelligentie explosie heeft een 50% kans volgens de 300 experts.

Dit betekent dat kort na menselijke KI, er kunstmatige superintelligentie kan onstaan. Het is niet te voorspellen hoe krachtig dit zal zijn.
Manifold, een andere voorspellings markt, verwacht een 40% kans dat er superintelligentie is in 2030.

Open problemen voor het controleren van toekomstige KI

Momenteel heeft de samenleving al moeite met het bijbenen van kunstmatige systemen.

• Beeldmateriaal wordt steeds makkelijker te falsifieren.
• Chatbots kunnen massaal nepnieuws verspreiden.
• Autonome wapens verschijnen.
• Het werk van artiesten kan eenvoudig nagebootst worden.

Maar deze problemen hebben nog altijd een mens aan de oorsprong staan.
Naarmate KI bekwamer wordt, onstaan er risikos die zelfs de maker niet bedoelt.
Daarom trekken voraanstaande KI experts aan de bel nu.

• Geoffrey Hinton, een van de peetvaders van KI, stopt bij Google om uit te spreken over de risikos. Hij denkt dat binnen 5 tot 20 jaar, KI een existentiele catastrophe kan veroorzaken
• Demis Hassabis, de CEO van DeepMind vreest voor misbruik van toekomstige systemn.
• Op de website van OpenAI staat dat ze met KI omgaan alsof de risikos existentieel zijn
• Dario Amodel, de CEO van Anthropic schat in dat er een 10 tot 25% kans is dat KI problemen zal veroorzaken op de schaal van beschavingen.
• Elezier Yudkowsky en Nate Soares, de stichters van het AIS onderzoeksveld, verwachten niet dat de mensheid toekomstige KI zal overleven.
• Manifold schat een 7% kans op uitroeiing door KI voor 2030.